Beyond Uniform Tokens: Adaptive Compression for Time Series Language Models
面向时间序列语言模型的自适应压缩：超越统一Token处理
🧭 时间序列LLM的Token压缩与推理加速
Zhejiang University · Harbin Institute of Technology · Shandong University
从非对称Token视角提出自适应预算框架，在频域压缩时间序列Token并逐层削减提示Token，实现最高7.68倍推理加速与78%设置下的性能提升。
📌 工作参考价值（4 点）
- Token压缩思路可迁移到多模态LLM推理：利用输入数据在频域/信息密度的非均匀性，设计自适应压缩模块，在电商图文理解、Agent对话历史管理等场景降低 KV Cache 开销。
- 动态Prompt Token削减策略：观察到深层提示影响力衰减，可借鉴在 Agent 的 long-context 任务中，对不同深度层注入不同长度的 System Prompt 或历史上下文，优化内存占用。
- 训练时加入压缩预算约束：在训练或微调阶段引入 Token 压缩目标，让模型学会保留关键信息，可应用于生成式推荐模型的用户行为序列建模，加速长序列处理。
- 频域变换作为通用压缩手段：将时序或序列信号变换到频域后根据能量分布进行压缩，可尝试用于电商点击序列的频域压缩表示，再送入推荐模型，在保证效果的同时减少序列长度。